查看原文
其他

【出海同学会干货】NO.87期 - AI 新浪潮的中的开发者应如何设立战略?

出海同学会 出海同学会 2024-02-07



导语

开发者是出海的核心力量,而AI浪潮的来临让开发者既有的生存环境发生了巨大的变化。大部分的开发者开始思考AI+的战略形态:“如何应用AI”,“如何在自己的产品里添加AI功能”,“如何在AI竞争浪潮中脱颖而出甚至弯道超车?”甚至有相当数量的AI原生开发者、创业者,开始用AI工具解决过去无法解决的问题,新的“AI原生”开发者生态也在逐步形成。


这些出海开发者最近每天思考的问题引起了我们的关注,在5月的Google IO之际,出海同学会与Oceanbase及品玩硅星人携手组织了线下闭门讨论,以下是此次讨论的可公开部分。




- 本期课代表同学 -

Student on Duty

百度 Principal Scientist 李昂

Oceanbase 北美战略总监 Eileen

PingCAP CTO 黄东旭

斯坦福客座讲师 硅谷徐老师

Wisemont 创始合伙人 李峻

一起作业网 创始人 肖盾

(*按公司名数字-字母序)

部分同学因公司PR保密不能露出外发内容

我们同样感谢他们的精彩输出




要点问题


1、AI将会如何改变开发者的生存状态?
2、AI对各个行业的改变和帮助? 3、企业应该如何设立自己的 AI 战略?4、有哪些重要的应用场景值得关注?5、LLM到应用的中间层有什么关键机会? 


1

AI将如何改变开发者的生存状态?




PingCAP CTO 黄东旭


首先说一个结论,现在 LLM 对于开发者的影响可能比其它的,比如写邮件,写 marketing 的summary或写点问题,可能对后续的影响更深远。现在这一波LLM的创新也好, ChatGPT 也好,真正改变最重要的一个人群之一就是开发者,并不是说取代现在普通的engineer,而是你如果是一个知识面比较广,想去 build something,类似像这种 face full stack,你会发现相当于能够10倍速提升写码的效率。


我们这样的工程师生产代码的效率和质量提高以后,能够去产生出更好的LLM或者更新的服务。所以我觉得现在 ChatGPT 也好、LLM也好,只是一个 first stage 阶段的大语言模型,还挺笨的,但是它的作用是帮助开发者提高效率,变成个性化的助手。


第二个感受,我也听过很多工程师朋友反馈,它不是太好用,我经常会拿 ChatGPT review code,写一些point,假设你是一个有经验的工程师,你去 review 一下 pro request能不能提点建议。很多时候 ChatGPT 给出的回答质量,取决于你的 point 写得多好,我经常发现并不是 ChatGPT 不理解,而是我的 point 写得不好,于是我就花了很多时间去改进我的point。


这几天我一直在做一个小的 Side project,大家应该听说过Auto GPT,我觉得Auto GPT 的code写得太烂了,我在写一个精简版Auto GPT,现在还没开源,如果有兴趣的话活动结束后可以一起来围观下。


接下来工程师跟 ChatGPT 沟通的方式,有可能会很像Auto GPT 的方式,只不过Auto GPT太烂了。我写了一个比Auto GPT稍微好用一点点的版本,已经能够产生很大的效果了。核心的原理是,一个像ChatGPT这样的大的 language model 去操控多个agent的模式,我觉得是现阶段非常 work 的方式。


分享一个很有意思的故事,我原来的应用里有很多那种 action 或者说agent,我觉得太多余了,只留下了几个action,一个 action 叫 wrong script,就是去让它去执行 Python script;第二个 action 叫做 summary info给定一段字符串,最后让它做summary;第三个 action 叫做 Google search,我只需要这 3 个action。


大家猜我能做什么事情?我可以把现在的auto GPT code base 放到 auto GPT 的 word version 的 workspace 底下,给它一个要求,就是请你改进自己的代码,很神奇的是他自己写了一个改进代码的 Python script,然后去运行,这个 byte screen 也会去读取另外一个文件,在中间插入自己修改的代码。我的观点是并不是大语言模型不行,或者说大家觉得只能干这件事情,而是说你的Point写得好不好。


最近核心的感受,我说一下对LLlM 的心路历程,去年我非常兴奋,大家去看我朋友圈,天天都在分享类似的东西,中间有一段时间觉得好像也就能干这些事,从信心之巅又滑落,反正也就是一个assistant,到最近一些 prompt engineering 加上一些 Langchain 、agent 一些新的模式,让我又更加理性地去看待这个事情。


所以,不是一个马上就会颠覆整个世界的新的技术。举刚才我自己版本的 auto GPT 的例子,虽然刚才说的很多事都非常神奇,但是做一些简单的事,调用 GPT 4的API,居然一晚上花掉 100 多美金,所以要解决的问题还有很多,一个是cost,大语言模型的 serving cost。现在 OpenAI 设了一个标杆,但我觉得还是太高了,这并不是一个很长时间都解决不了的问题,估计可能最近几个月serving cost 可能会持续下降。


第二个核心缺点是它的 context , GPT OpenAI 的竞争对手,出的模型能支持 10 万个token的上下文。我觉得这个方向是对的,因为现在的 context 实在太短了,只能用 AI 来去做一些比较简单的工作。


举个例子,我真的不想写代码,想让 AI 去把我所有的项目代码全都读到脑子里,像一个架构师一样,给我指出接下来我应该干什么。其实刚才有个细节,我看到了会心一笑,就是去问 ChatGPT 的时候,截图居然用了一个“请”,我觉得大家这个好习惯一定要继续保持。


AI 得理解更长上下文的东西,不然现在context 太少了,它是一个很好的士兵或assistant,但是很难去做更加复杂的事,这也是未来几年能够被解决的。


Summary一下我个人的感受,大家有没有看过一个特别有意思的电视剧,叫做 Person of Interest,中文名叫《疑犯追踪》,有点像西部世界,讲了一个故事,是说全国所有的摄像头都联网,有一拨人做了一个AI, AI 来组织正义或者说 AI 治国,那部电视剧的主线情节是相信人性,反正人性的光辉是机器取代不了的。


但是我一直觉得人类的智能没什么了不起的,大家知道我们大脑的上下文只有40兆的记忆空间而已,AI 现在能做的事情很多,但是现在我们还并没有找到一些很好的办法让 large language model 发挥最大的潜力。


我个人也做一些天使投资,前几个月我就非常兴奋,看一个项目就想投,现在稍微冷静下来一点,发现现阶段还是非常动荡,我个人的一个小建议,就是先观望,多听听真正玩过的人,或天天在玩的人,而不要去看各种报道什么的。







百度 Principal Scientist 李昂


我是李昂,百度无人驾驶的研究员,过去几年主要是从事人工智能的研究性工作,以及相关的一些业落地。


我觉得开发者可能需要变得更加creative。从我角度来看,存在两种不同的创新方式,一种方式就是内部补全,俗称 low hang fruit,已经有的一些技术方案,通常会把这些技术方案做一些拼接,会有新的东西出来,大家做得非常多,各行各业都有。比如现在有100个想法,怎么样去做combination,它的维度是很大的,人可能没有办法穷举所有的这些情况,而 AI 可以帮助你做更大的一个search,AI本质上是在 search的过程,所以 AI 可以做这样的一个创新模式。另外一个创新的方式是对外的,假如我已经有了一些技术方案,能不能从0到1有新的一些想法出现,而这些想法可能更多地需要开发者去做一些更 creative 的事。


我有时候会想从开发者的角度来说,什么事情是最重要的,而从现在的整个的行业形态来看,我觉得最重要的一件事情可能是怎么debug,比如我们现在做一些软件系统,核心的问题就是这个系统在实际运行时遇到了问题,怎么样可以快速的知道在这个庞大的软件系统里面,哪一个部件导致了这个问题,不管是AI系统还是人写的规则系统,所以核心问题就是怎么样更好地去debug,映射到现在的大模型也是一样的,大模型也存在这个问题。


大模型虽然可以更加 natural 地去跟人交流,但它不是全是对的,它会犯错,怎么样可以更好地去纠错,当它犯错时候,怎么样debug,知道这个地方是错的,从整个开发流程来说,debug 可能是未来更需要去关注的。现在很多行业在整个 debug的开发也不是非常完善,这一部分是有很多机会去进一步关注的。




2

AI对各个行业的改变和帮助?




斯坦福客座讲师 硅谷徐老师 


今天大模型解决的问题那么高的cost,希望不只是什么订机票、买食物能够方便一点。。


我对大模型的期望是它能够对一些过去数字化、互联网数字化以外的场景,能不能有一些比较大的突破,不管是物理还是说是机械,还是制药,这些产业都是发展的比较慢的,或者说过去20年数字化的角度比较慢动作,只有互联网行业是在快动作。


为什么慢动作,很多很多的原因,但是不是能够用AGI ,当然有很多争论AGI是不是到了,即使你不认为AGI到了,但你应该承认我们离AGI就比较近了,利用这一个 digital currency 角度去净化其他产业比较快的进入,我觉得从第一性原理上来讲,这是我对它最大的期望。


很多人都会说,large language model 出来以后会不会有很多人失业或者怎么样,从静态的角度有这个可能性,如果放在全球,放在各行各业,我觉得差得很远。微软的 CEO 说这个LLM,他觉得所带来的是 digital currency,虽然如果你是在Google、Facebook你可能没有感受的,因为每个公司的数字化都已经走得很快。他的这个观点我是蛮同意的。


但是Google、 Facebook 代表的产业、 全球GDP方面也就占 5% -10% 到顶了,剩下的产业非常广大,数字化还是走得很慢的,在那些行业当中数字化怎么能够5倍、 10倍的加速,我觉得从 AI 的角度是可以做的,所以说不太存在有 AI 了就没啥事情可以做。


东旭讲的Cost,我是比较同意的。另外一个对 developer 可能是最大的作用,我不是特别同意, 在世界上1%、 2%的人能develop,世界上绝大多数的人都不是developer,但是我觉得LLM出来以后,基本上每个人都应该是developer,不管你是产品经理还是工人,你要朝那个方向去想去适应,当然这个需要一个过程。这在文化上面是一个很大的转型。我们都应该去思考,如果你不是一个developer,为什么五年以后应该是一个?这是一个非常深远的影响。


我之前一直是操作系统,做网络,做安全、是VMware早期的员工之一,2015年我决定做一些不同的事,但是我并不知道那是什么。所以说我就加入了Greylock做投资,Greylock 是 Facebook, LinkedIn 的早期的投资人。


我比较幸运,加入的那一年正好是2015年的夏天, 2015夏天OpenAI 开始了,我当时估计OpenAI 做到 ChatGPT 的程度,大概是15到20年。在第一次看到GPT3的时候我感到非常震撼,大约是2020年左右,从上一个50亿级的参数到现在1750亿级别,这是一个质的飞跃。


ChatGPT 3 已经能够写不错的 code ,我当时还发了一个Twitter,人家问我什么时候程序员不需要自己写 code 了?我说你应该去试一下GPT3,当时我还做了一个科技早知道的节目,GPT3 is a defining moment for AI。


去年十一月份的时候,我正好去了AWS。过去十年间,AWS确实改变了技术界。那是在十一月底,我觉得Reinvent不再像往年那么重新定义技术栈,而是渐进的改进。我在这个行业已经有了25年,每当我有这种感觉时,我知道一定会发生一些大事。Reinvent开始于十一月的27号或28号,然后在11月30号,GPT3.5也就是ChatGPT发布了,这是非常有趣的。


从我个人的角度来看,这是AI对各个领域的改变和帮助中最令人兴奋的时刻之一,尤其是在硅谷,大多数人在Google、Facebook或类似的公司工作。


AI将会改变各个领域,我认为它不仅仅是对开发者有影响,而且对非开发者也有很大影响,AI将改变开发者的生存方式。






百度 Principal Scientist 李昂


现在大家谈大模型比较多,从我的角度来看,大模型是人机交互的升级,大家会说web1.0、web2.0,用户可以提交一些表格给服务器。大模型从某个角度来看,是Web 2.0的升级版,不再是人来提供一个表格,这个表格变成了一些问题。问题不再是由服务端设计出来的,而变得更加 free form 的交流方式。


现在有很多AI创业公司,更多的关注点在于怎么样去把某一个特定的垂直行业的人机交互方式,通过大模型的方式来转变为更加 natural的交流形态。




3

企业应该如何设立自己的 AI 战略?




斯坦福客座讲师 硅谷徐老师 


这是一个很简单的问题,但实际做起来却很困难,原因是我认为AI将以一种非常显著的方式改变人类。


我觉得如果你愿意在星期五晚上花时间来参与出海同学会,你已经相信这一点了,因为你愿意放弃其他更好的事情与聚会来参与这个讨论。另一方面,如果你和财富500强公司的CEO们交谈,几乎每个CEO都会告诉你,AI将改变我的公司和我的行业,从某种程度上说是对的,但我也可以告诉你,实际上几乎没有哪家公司在做很多工作,他们可能并不是在大力发展AI,因为要让AI真正落地并产生巨大的影响,需要进行巨大的文化变革。在我所知道的很少的公司中,对于财富500强的公司,也许只有百分之一或百分之二的公司真正在做这方面的工作。


所以我认为,原生AI的企业有更大几率成功。你可能不一定相信,但我认为十年后回顾,我几乎可以肯定你的观念会扭转。为什么这很重要呢?因为这是你创办公司、做职业决策、从创业的角度看待问题时的一个视角,这是非常重要的。或者至少我认为这一代已经成熟了,他们正在产生巨大的影响。


实际上,每个行业都是如此。在互联网刚兴起的时候,亚马逊崛起了,沃尔玛也崛起了,而通用电气却对互联网一事毫无作为,没有利用互联网技术的优势,这就是为什么通用电气淡出了大家的视野。但二十年前,它是最大的市值公司,像思科和通用电气这样的公司,它们在今天几乎没有多大的相关性。这其实是可以预料的问题,关键是,谁是AI时代的亚马逊呢?我希望或者理想情况下,其中一个就出现在这个房间里。


提问:能不能给几个例子,AI在不同类型的公司里的具体应用?



I think she's looking for the silver bullet, which I don't have.


我来谈谈我的思考过程或框架。首先,我认为从事人工智能的人应该思考一个问题,那就是过去大家对一些事情已经有了一些定论,认为有些事情是可以实现的mission possible,或者说大家已经形成了一种固定的思维方式,或者说有一种比如机器人技术,像一些机器人技术很难快速移动,因为不仅仅是一个AI算法,而是涉及到机械结构。所以为什么机械结构需要以这样的速度移动,我认为这是需要考虑的事情。这些产业的数字化速度和普及率与广告公司是不同的。我指的是像谷歌、Facebook这样的公司,它们的情况与众不同,它们利用 digital currency的十倍、一百倍推动技术的极限,这些技术在我们看来可能很难实现或者属于某个特定类别。


在企业中,或者说是使用案例中,实际上今天很多事情都可以做,比如销售、营销,为什么很多事情难以推动,实际上还是很大程度上依赖于人力,因为无论AI做的任何事情,总会有你发现这个东西不起作用,这个东西有一个特殊情况,然后一群人就跑上去解决。如果你有这种文化,这种事情永远很难做到。所以我认为像AI的颠覆可能更多地来自于一个原生AI的公司,一个原生AI的公司会自己做市场营销、销售、人力资源,愿意容忍AI的错误。就像谷歌、Facebook这样的公司,这一代公司的内部数字化流程可能比其他公司快得多。


最后一个观点是关于企业软件,过去20年、30年,人们做了什么?Salesforce做了哪些对的事?它们基本上迫使你使用一个Framework。比如你要提交一个昂贵的报告,或者每个人都有相同的流程,迫使每个人都遵循一种固定的流程。这一方面是违背人性的,另一方面效率也很低。我认为从企业软件的角度来看,不管是会计还是销售,未来的方向实际上是相反的,不要让大家固定在同一个工作流程中,而是每个人都应该有自己的工作流程。每个人都应该有自己的工作方式。这个我觉得是更加符合一个人性,或者说更加符合未来。






百度 Principal Scientist 李昂


我对 AI 的一个思考是,它本质上人是希望不断地提升效率,或者是说我们的世界是希望自己的效率越来越高的。比如无人车是希望把物品或者人从 a 点到 b 点移动的效率提升,不再需要有更多的中间人为介入,出错的可能性降低,减少安全问题。从互联网的角度也是一样的道理,我希望让人在整个环境里面工作的效率变得越来越高。而 AI 是提升效率重要手段,它只是一个技术方案,达到目的是所有人类都希望做的事情,就是速度越来越快,通过简单的操作就可以做到一些复杂的事情。


例如,在企业里面比较重要的一点就是 focus 在效率这个角度,怎么样可以让整个企业运作得更加顺畅,其实企业的核心,就是一个生产链条,一个pipeline,使得里有一些人参与,也有一些机器参与,怎么可以更好地协作起来,比如说我从一个原始的材料生产加工得到我想要的一个产品,让它的速度变得更快,企业的收益就可以变得越来越可观。







OceanBase北美战略总监 Eileen 


目前是蚂蚁集团数据库 Oceanbase 的北美战略负责人。我们来这边是想要探索一下中国的技术,在全球化上的一些机会,也是刚刚开始。


我在阿里做了5年的技术战略相关的工作,在上一次AI 活动之后,我在思考一个问题,今天 AI 在我们视线范围内,是一个新的技术还是一个 technology trigger?这是两个不同的视角,作为一个新的技术,着实已经影响到了我们的生活,是可以感受得到的,离开ChatGPT, somehow没办法工作了。它作为一个 technology trigger,又着实地在改变很多商业社会的形态,今天AI同时作为新技术,作为 technology trigger,可以从商业、社会,包括伦理到的各个方面参与讨论的。


所以,第一个结论是我们认为但凡是大家感受到的、看到的、发现的,所有的跟 AI 相关的观点,或者说是经验,都值得被讨论,都值得被听见,都值得分享。这个技术领域还非常早,还处于整个技术周期非常非常早期的一个阶段,在这样的一个乱糟糟的阶段,必然会有大量的声音,大量的创业者,大量的讨论。


相对来讲战略都是开放的, adoption 的机会比之前要好很多。因为原先新技术相对于大公司来说,如果大家留在大厂,新技术在大公司adoption 的门槛是非常非常高的,公司的决策层很难下决定说我要用AI。但以我目前知道的,许多硅谷大厂都设立了相应的部门叫做 AI strategy team,这些部门专门用来研究自己的业务怎么样用AI。就大厂公司来讲,大家 adoption 的这个时机是比较好的。


对创业者和创业公司的眼光也是撒网撒得比较大,大家也有听到最近有很多大厂的战投来硅谷找项目。如果说从我的视角,还是从创业的视角看过去的话,就是 all in ,就什么都有。听起来很好,但是具体里面肯定有很多工作。所以我们一起把 community 建起来,有更多的communication,可能是现阶段来讲我们想要做的一件事情。



4

有哪些重要的应用场景值得关注?




一起作业网 创始人 肖盾


我跟大家想的很多是不太一样的,教育的核心是什么呢?我们希望下一代以及他们的下一代生活在一个美好的环境中,一开始是可能是妈妈给的,所以就给它起了名字叫爱,教育的原动力是一个特别美好的巧合,中文 AI 的汉语拼音也是这个。


现在有好多想法,一种说 AI 来得特别焦虑,一种来得特别恐惧,当然还有一种说 AI 就是个工具。这三个想法都不太对,我不相信有任何的工具可以让我们丧失掉这个能力,而且我会誓死捍卫这个东西。我认为我们应该是希望我们的后代不管有什么样的技术的发展,生活在一个更加美好的环境中。我也相信我们是有能力让技术帮助我们实现。未来应该是一个所谓人机共存的未来。


第一个我们应该去想,不管是对于个人还是企业,还是对于家庭,人怎么能长成人, AI 怎么能长成AI,他俩的关系是啥。我可能换个词,每个人都是个creator,将来随着工具越来越强大,成为一个创造者的门槛会越来越低。以教育行业为例,原来教育行业的 creators 是比较中心化,比如说斯坦福大学,比如新东方包括我们企业一些出版社,但是我觉得未来可能它是更加的去中心化的。不管你想有什么东西,你都可以去分享,别人都可以在一种方式下跟你去沟通学习。大家一起成长就更像是这么一种感觉,这样的场景非常非常多,在各个行业里头我觉得可能都有一些类似的情况会发生。



5

LLM到应用的中间层有什么关键机会? 



Wisemont 创始合伙人 李峻


我在硅谷从2015年开始做投资。我们的基金Wisemont Capital主要是投早期的。我们从2015年开始就投人工智能、企业 SaaS硬件相关的领域。去年11月ChatGPT出来到现在看了不少AI公司,至今一家还没有投,觉得比较难下手,因为太多公司一下子涌现出来。最近在跟踪一些公司。


最近有很多非常精彩的文章,从底层逻辑算力optimization,包括陆奇也写了非常长的很好的文章给大家借鉴,包括从应用角度去看,建议也很多。但是我个人觉得从创业投资的角度可能竞争的differentiation,可能是在非人工智能的领域,除非在中国你是头部团队可以做大模型的,你能拿到算力,能拿到网信办的那张门票,真正底层技术应该是有的一搏,也是非常大的机会。


应用层面的话大家可以看看,也许在人工智能之外的优势,那是拼速度快, operation 做得好,你的开发能力比较强,产品体验比较好,还是说在某一个深度的行业领域的行业资源会比较好。现在很多可能以 supplish 的company,它本身原先积累了很多客户资源,我觉得 GPT 出来、大模型对他们是一个非常非常大的助力,效率可以提升, cost 可以降低。而且现在从终端用户端,无论是个人用户和企业来讲,都非常渴望尽快的把这个东西接进来。




本期笔记整理员:KK,盼盼


—往期相关精选文章链接—


Generative AI,卷出个未来| 71期干货

Chat GPT能为跨境电商的降本增效做些什么?| 85期干货

AI Infra & Application可能的创新与演化方向 | 86期干货


继续滑动看下一个

【出海同学会干货】NO.87期 - AI 新浪潮的中的开发者应如何设立战略?

出海同学会 出海同学会
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存